Bernini: Latent Semantic Planning for Video Diffusion
Bernini：通过潜在语义规划统一视频生成与编辑
🧭 视频生成 · 语义规划
Bytedance
将 MLLM 语义规划与 DiT 像素渲染解耦，模块化组合实现高效视频生成与编辑
📌 工作参考价值（4 点）
- 模块化生成框架：将视频生成拆分为语义规划（MLLM）与像素渲染（DiT）两个独立模块，可在电商商品视频生成中复用预训练 MLLM 的视觉理解能力，降低渲染器迭代成本。
- 语义级接口设计：使用 ViT embedding 作为中间表示，让规划与渲染仅需轻量联合训练，适合业务中快速适配新的编辑需求，如虚拟试穿、商品展示变换。
- SA-3D RoPE 位置编码：处理多帧、多视角输入时，段感知的 3D 旋转位置编码可迁移至多模态推荐中的视频理解编码器，提升长序列时空表征。
- 推理链引入生成：在规划器中加入 chain-of-thought ，能将复杂编辑指令分解为中间步骤再生成语义计划，可借鉴到 Agent 的视觉生成任务，提高指令遵循性。